overwork (someone’s) brain

Translations
перегружать (чей-то) мозг
He overworked his brain trying to solve the complex problem.
Он перегружал свой мозг, пытаясь решить сложную задачу.